即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
論文引用造假遽增逾 12 倍 研究示警 AI 幻覺危及學術誠信
科技生活

·6 個月前·何映辰
#AI#學術誠信#論文造假#大型語言模型#生物醫學研究
論文引用造假遽增逾 12 倍 研究示警 AI 幻覺危及學術誠信
商傳媒|何映辰/台北報導
摘要

一項最新研究顯示,由於人工智慧(AI)的「幻覺」現象,學術論文中生成的不實引用數量激增逾12倍,使同儕審查難以辨識,嚴重威脅學術研究的誠信與基石,專家呼籲應立即採取防範措施。

一項最新研究揭露,人工智慧(AI)生成的不實研究引用在學術論文中呈爆炸性增長,短短幾年內造假率激增逾12倍,嚴重衝擊學術誠信與同儕審查機制,恐動搖科學研究的基石。

根據《MedPage Today》昨日報導,研究分析生物醫學論文發現,捏造不存在的參考文獻已成為日益嚴重的問題。造假率從2023年每萬篇論文中的4.0例,急劇攀升至2026年初的56.9例,增幅超過12倍。這些經由大型語言模型(LLMs)生成的虛假引用,往往格式正確、歸因於真實研究人員,並附有看似可信的出版日期,導致傳統同儕審查難以察覺。

研究數據顯示,2023年約每2,828篇論文中就有一篇包含至少一個虛假引用;到了2025年,比例增至每458篇就有一篇;而至2026年前7週,更是每277篇論文中便有虛假引用。研究團隊從2023年1月至2026年2月期間,掃描了近250萬篇生物醫學論文及其1.256億筆參考文獻,共辨識出2,810篇論文中含有4,046筆虛假引用。

紐約哥倫比亞大學(Columbia University)的Maxim Topaz指出,這僅是「冰山一角」。他對臨床醫生可能基於一份引用錯誤文獻的指南提供醫療照護表示「非常擔憂」。一個令人震驚的案例是,2025年某開放取閱腫瘤學期刊上的一篇關於輸尿管腸道吻合技術的論文,其參考文獻中有高達60%被證實為捏造。研究人員也發現了論文工廠活動的跡象,例如一組作者在2025年於單一外科期刊上發表11篇論文,其中包含15個虛假引用。

霍華德·鮑克納(Howard Bauchner)與Frederick P. Rivara強調,發現已發表手稿中的虛假引用,應視為學術不端行為並予以撤回。哈佛醫學院(Harvard Medical School)研究員阿瓊·K·曼賴(Arjun K. Manrai)則警示:「虛假引用應引起所有人關注。如果我們的科學根基被侵蝕,將會陷入深重的麻煩。」

為應對此一挑戰,研究人員提出四項策略:首先,出版商應在同儕審查前實施自動參考文獻驗證;其次,索引服務應在文章記錄中增加誠信元數據;第三,出版商應回溯性審查已發表的論文;最後,研究誠信資料庫應將「虛假引用」確立為一種新的研究不端行為類別。此類問題對全球學術界構成挑戰,台灣亦應審慎應對此類新興威脅,共同維護學術研究的嚴謹性與可信度。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源